Thành phố có lịch sử từ thời tiền sử. Các cuộc khảo sát khảo cổ đã tiết lộ nhiều dấu vết của một làng quê từ tận thiên niên kỷ thứ 3 trước Công nguyên và nó đã có mối liên kết về văn hóa với Bactria-Margiana. Thành phố này đã từng được đề cập đến với tên gọi Mouru cùng với Balkh. Trong Hỏa giáo, vị thần Ahura Mazda đã tạo ra Mouru như là một trong mười sáu vùng đất hoàn hảo.[2]

Dưới thời Đế quốc Achaemenes (năm 550–330 TCN) các ghi chép lịch sử đề cập đến Merv như là một nơi của một số quan trọng dưới tên Margu như là một trong những Satrap trong Chữ khắc Behistun (515 TCN) dưới triều đại Darius I của Ba Tư. Thành phố đầu tiên của Merv được thành lập vào thế kỷ thứ 6 trước Công nguyên như là một phần của việc mở rộng đế quốc Achaemenes[3] của Cyrus Đại đế (559–530 TCN).

Câu chuyện về việc Alexandre Đại đế đến thăm Merv chỉ là huyền thoại, nhưng thành phố được đặt tên là Alexandria (Ἀλεξάνδρεια)[4] sau một thời gian ông trị vì. Sau khi Alexander qua đời vào năm 323 TCN, Merv trở thành thủ phủ của tỉnh Margiana của Seleukos, Hy Lạp-Bactria (256-125 TCN), Parthia, Sasan. Antiochos I Soter của Seleukos là người đã đổi Merv thành Antiochia Margiana. Ông đã xây dựng lại và mở rộng thành phố tại địa điểm hiện được gọi là pháo đài Gyaur Gala (Gäwürgala). Sau sự sụp đổ của triều đại Seleukos vào năm 63 TCN, Bactria, Parthia và Kushan liên tiếp nắm quyền kiểm soát trong khoảng thời gian sau đó. Vào năm 53 TCN, khoảng 10.000 tù nhân La Mã từ Trận Carrhae dường như đã bị dẫn giải đến Merv.